Kalau yang Tembak Menembak Algoritma, Lalu Kita Ini Siapa?

Algoritma jadi algojo, manusia absen. Perang kini dijalankan mesin.

***

Manusia ini makhluk aneh. Sudah ratusan ribu tahun tinggal di bumi, tapi makin ke sini, makin malas menghadapi kenyataan. Bahkan untuk urusan membunuh pun, kita mulai enggan pakai tangan sendiri. Capek. Ribet. Gak efektif. Banyak pertimbangan. Maka, lahirlah satu keputusan yang katanya canggih. Serahkan saja semuanya pada mesin.

Saya tidak ngerti soal radar. Saya juga tak bisa menjelaskan bagaimana drone bisa menukik di antara dua tiang listrik lalu meledak tepat di atas dapur orang. Tapi saya tahu satu hal: rasa takut. Dan anehnya, rasa takut saya ini bukan karena nonton film Terminator atau I, Robot, tapi karena saya baca berita yang nyata, yang sungguhan, dan yang bikin perut eneg-mual.

Contohnya, 2023, di Gaza. Ada sistem bernama Lavender. Jangan terkecoh dengan namanya yang seperti merk parfum. Lavender bukan aroma terapi, tapi sistem yang mencium siapa yang harus dihabisi. Otomatis. Cepat. Presisi. Tanpa basa-basi. Ribuan nama masuk dalam daftar target. Bahkan dikabarkan dalam hitungan detik. Yang bikin makin sedih: nggak ada verifikasi manual. Bahkan Israel sendiri mengakuinya dalam laporan investigasi oleh +972mag (2024). Bayangkan saja jika tiba-tiba algoritma bilang begini, "orang ini mencurigakan." Maka jebrett, roket meluncur. Duar! Tamat riwayatmu.

Di masa lalu, perang adalah arena gagah-gagahan. Seragam militer. Teriakan komando. Lencana. Peta segede spanduk seminar. Sekarang? Cukup hoodie, laptop, koneksi Wi-Fi stabil, dan seperangkat kode Python. Sembari ngopi, bisa ngebom. Sambil dengerin playlist, bisa bikin ledakan. Dan semua tampak elegan. Tanpa noda darah. Tanpa dengar jeritan dan suara minta "tolong".

Efisiensi, katanya. Akhirnya apa? Statistik. Bar chart. Persentase akurasi. Laporan harian: target locked—target down. Kadang saya mikir, masa depan itu mungkin seperti pertandingan catur, tapi semua pemainnya robot. Manusia cuma nonton. Eh, bukan cuma nonton, lebih tepatnya jadi papan. Karena pion-pionnya ya itu: perempuan, anak-anak, pengungsi. Yang paling rapuh. Yang selalu muncul di berita dengan wajah buram dan tubuh ditutupi kain putih.

Dan kenapa korban perang masih itu-itu juga? Karena AI itu “netral” katanya. Tapi dasarnya netral itu ya data, dan data itu... bias. Kalau data dilatih dari dunia yang diskriminatif, hasilnya ya begitu. Misal, AI dilatih mengenali “gerakan mencurigakan” di wilayah konflik. Lalu misalmnya, ada 7 anak kecil lari ngejar-ngejar layangan. Sistem panik. Layangan dikira drone musuh. Lalu anak-anak itu? Bisa-bisa wassalam.

Tapi nanti kalian juga pasti akan ketemu dengan orang-orang yang bilang, “Tenang, ini kemajuan teknologi. Kita harus embrace the future!” Iya, embrace. Terus dicekik. Karena ternyata makin kita pintar, makin tega (kayaknya). Makin akurat, makin tidak ragu. Padahal dulu, sebelum menembak, orang masih mikir-mikir begini. "Dia bersalah nggak, ya?" Kalu sekarang? "Sesuai pola nggak, ya?" Dan kalau sesuai pola? Klik. Lah kalau salah? Bukan salah siapa-siapa. Bukan salah kita. Bukan salah tentara. Bukan salah menteri. Tapi... sistem.

Ah iya, sistem. Kata ajaib yang bisa menyerap dosa. Sekarang semua salah sistem. Bahkan kalau kita kentut di angkot pun, bisa bilang: "Maaf, itu sistem pencernaan saya." Memang sih, manusia sedang melakukan satu pencapaian besar: absen dari tragedi yang mereka buat sendiri. Mereka menciptakan mesin yang bisa membunuh, tapi tidak bisa diadili.

Bisa terbang, tapi tidak bisa ditegur. Dan kita, manusia, jadi seperti penyiar berita: membacakan laporan kematian sambil senyam senyum, lalu lanjut ke berita cuaca. Yang tetap hadir? Ya itu-itu lagi: ibu-ibu yang melahirkan anak-anak yang tak sempat tumbuh besar. Anak-anak yang hanya sempat sekali tertawa sebelum langit jatuh. Dan wajah-wajah asing yang tinggal jadi piksel di monitor drone.

Saya ingin kasih solusi. Tapi sebenarnya saya juga agak takut. Nanti AI bisa-bisa membaca tulisan ini, menganggap saya sebagai ancaman. Wah repot. Saya dikirimi drone. Waduh… ngeri deh. Jadi ya sudah. Saya cuma ingin mengajak berpikir. Itu pun kalau kita masih mau berpikir sendiri. Bukan disuruh mikir sama algoritma.

Wahyu Tanoto. Bapak rumah tangga, tinggal di Bantul.